EDIT: Evidence-Diagnosed Intervention Training for Rule-Faithful LLM Grading
证据诊断干预训练：实现LLM规则遵循评分的两阶段框架
🧭 LLM推理过程诊断与干预训练
King’s College London · University of Cambridge · AQA · The Alan Turing Institute
通过内部信号诊断推理步骤并局部干预，结合信念引导的奖励塑形，提升LLM评分的规则遵循性
📌 工作参考价值（4 点）
- 内部信号驱动的错误定位：使用模型对最终评分的 posterior belief 及输入 grounding 分数自动定位推理链中的问题步骤，这种方法可迁移到电商商品审核、合规文案检查等需要多步推理的场景，避免人工标注步骤级错误。
- 局部干预而非全盘重训：仅针对诊断出的问题步骤进行修正，且引入 rubric checklist 作为外部知识，可借鉴至需要严格遵循规则的 Agent 流程，如客服话术合理性判断，只修正违规局部而保留整体流畅性。
- 信念引导的奖励塑形：在 RL 阶段通过 belief drift 惩罚有害的信念偏移，同时允许有益探索，这种细粒度的奖励设计可用于训练更可靠的对话 Agent，防止其偏离原始承诺或规则。
- 两阶段训练策略可复用到复杂决策：先通过 SFT 定位并修正错误，再以 RL 校准整体行为，这种组合对电商场景中的多智体协作策略优化（如议价、售后协商）具有参考价值，先纠正局部不合理策略，再全局对齐。